Helen Toner, ehemalige Direktorin von OpenAI: „Selbst wenn die KI nicht weiter fortschreitet, ist ihre Wirkung bereits jetzt mit der des Internets vergleichbar.“

Die 33-jährige Helen Toner (geboren in Melbourne, Australien) hat eine lange und ereignisreiche Beziehung zur KI. Sein entscheidender Moment war sein Eintritt in den Vorstand von OpenAI im Jahr 2021, aber noch wichtiger war die Art und Weise seines Ausscheidens, kurz nachdem er im November 2023 für die Entlassung von Sam Altman als CEO gestimmt hatte. Toner lehnt es in diesem Interview ab, über diese Erfahrung bei dem Unternehmen, das ChatGPT gegründet hat, zu sprechen, hat jedoch zuvor seine Meinung geäußert: Altman war dem Vorstand gegenüber nicht ehrlich. „Wir haben auf Twitter von ChatGPT erfahren“, sagte Toner. Er fügte außerdem hinzu, dass der Geschäftsführer nach Aussage einiger Führungskräfte eine „giftige Atmosphäre“ innerhalb des Unternehmens geschaffen habe.

Dieser Kampf endete mit Altmans Wiedereinstellung . Toner verfolgt derzeit vom Center for Security and Emerging Technology der Georgetown University (Washington, USA) aus aufmerksam die Entwicklung der KI in den Bereichen Verteidigung und China, zwei seiner Spezialgebiete. Er hat vor dem Kongress bereits seine Vision für die Zukunft der KI dargelegt, die er in diesem Videointerview erläutert.

Fragen. Warum schreiben viele Nutzer KI magische Eigenschaften zu?

Antwort. Ich würde sagen, es gibt zwei Gründe. Einer davon ist ziemlich offensichtlich: Wir kennen KI aus der Science-Fiction, wo KI oft unfehlbar ist. Mal ist sie gut, mal ist sie böse, aber sie hat immer die richtigen Antworten und kann alles. Ihre Rolle in der Fiktion ähnelt der von Feen, Göttern oder übernatürlichen Wesen. Ein weiterer Grund ist, dass wir unsere Einstellung zu Computern ändern müssen. Bisher funktionierte die Technologie, die wir eingesetzt haben, gut und vorhersehbar. Wenn ein Taschenrechner eine Berechnung durchführen kann, macht er sie jedes Mal richtig. Bei der dritten Ziffer einer schriftlichen Division macht es nie einen Fehler. Aber diese KIs sind nicht so: Sie sind nicht deterministisch, sie geben unterschiedliche Antworten, sie folgen keinem perfekten Algorithmus. Das ist neu und wir sind es nicht gewohnt.

F: Wie weit wird KI gehen?

A. Es gibt Leute, die reden, als gäbe es ein klares Ziel: allgemeine künstliche Intelligenz , die viele als eine KI definieren, die so gut ist wie ein Mensch. Aber KI wird nie die gleichen Fähigkeiten wie ein Mensch haben. Es gibt bereits Dinge, in denen KI viel besser ist als wir, und andere, in denen sie schlechter ist. Selbst wenn wir eine KI erreichen, die so gut ist wie der Mensch, wird es immer noch anders sein. Ich glaube nicht, dass es jemals Roboter geben wird, die genauso gut Salsa tanzen oder mit einer anderen Person Swing improvisieren können wie Menschen. Es hat keinen Sinn, so etwas zu bauen. Aber wir werden über sehr leistungsfähige Systeme verfügen, die in der Lage sind, den Menschen bei strategischen oder intellektuellen Aufgaben zu übertreffen. Wir reden, als gäbe es ein klares Schicksal, aber in Wirklichkeit wissen wir nicht, wie die Zukunft aussehen wird.

F: Was ist Ihr Hauptanliegen im Zusammenhang mit KI?

R. Es gibt viele verschiedene Geschmacksrichtungen. Die schlimmsten Szenarien, die mir am wahrscheinlichsten erscheinen, sind jene, die darauf hinauslaufen, dass wir uns dazu entschließen, KI-Systemen immer mehr Autonomie zu geben und sie immer stärker in die Gesellschaft zu integrieren. Das wäre der erste Schritt. Das Zweite könnte vieles sein. Es könnte sein, dass KIs anfangen, miteinander zu kooperieren und schließlich die Kontrolle über Menschen übernehmen. Es könnte sein, dass wir in einer Welt leben, die zwar nett erscheint, aber tief im Inneren keinen Sinn ergibt: Wir verbringen den Tag damit, TikToks anzuschauen, leckeres Junkfood zu essen, ohne jedoch ein sinnvolles Leben zu führen. Oder eine kleine Gruppe von Menschen arbeitet mit der KI zusammen, reißt die gesamte Macht an sich und wir landen in einer totalitären Welt.

F: Glauben Sie wirklich, dass das passieren kann?

A. Ich denke, es könnte sehr, sehr schiefgehen. Und ich glaube, dass viel mehr Dinge schrecklich schiefgehen können als nur „wir sterben alle“. Am Ende werden wir vielleicht alle sterben, aber sich nur auf dieses Szenario zu konzentrieren, ist nicht sinnvoll.

F: Wir sehen bereits Studien , in denen KI manipulierbar ist. Machst du dir Sorgen?

A. Es hängt davon ab, wovon er Sie überzeugen möchte. Eine Überzeugung, die mir realistischer erscheint, sind so etwas wie KI-basierte Kulte, in denen die Menschen glauben, dass KI wie ihr Freund ist, dass sie über sie wacht und eine Art weiser Mann ist, dem sie folgen sollten. Die Geschichte menschlicher Kulte lehrt uns, dass es ziemlich einfach ist, einen zu gründen, und dass die Leute ziemlich verrückte Dinge tun. Bisher sind daran meist nur wenige Personen beteiligt. Wir werden mit Sicherheit KI-basierte Kulte erleben.

F: Es scheint nicht trivial, eine KI zu erschaffen, die in der Lage ist, eine Sekte zu leiten.

R. Es wird interessant sein. Zumindest werden viele Menschen eine persönliche Beziehung zu ihrer KI aufbauen. Das passiert bereits.

F: Wie weit ist China im Bereich KI?

A. Es hängt davon ab, welchen Teil der KI Sie betrachten. Bei fortschrittlicheren Systemen haben die USA weiterhin die Nase vorn. Ich arbeite an Fragen der nationalen Sicherheit und glaube, dass es dort schwieriger ist, das herauszufinden. Wichtiger wird sein, wie KI im Militär eingesetzt wird. Ich würde erwarten, dass die USA besser abschneiden als China, aber das lässt sich nicht so leicht sagen, und es handelt sich um ein anderes Problem als den Bau fortschrittlicherer Modelle. Wenn wir über Grenzmodelle sprechen, ist es auch schwierig, diese zu messen. Ich weiß nicht, ob ich sagen würde, dass China ein oder zwei Jahre zurückliegt. Die aktuellsten Daten, die wir haben , betreffen die Einführung von DeepSeek V3. DeepSeek hat zwei Modelle veröffentlicht und viele Leute waren von R1, dem Reasoning-Modell, begeistert. Doch viele Leute, die im KI-Bereich arbeiten, finden die andere Version, V3, beeindruckender. Sie haben es im Dezember veröffentlicht und es lag wahrscheinlich sechs bis neun Monate hinter dem entsprechenden Modell in den USA zurück, und das Argumentationsmodell lag etwa drei bis vier Monate zurück. Doch seitdem sind amerikanische Unternehmen weiter auf dem Vormarsch, und China hat bislang nicht reagiert. Derzeit liegen sie sechs bis zwölf Monate im Rückstand, doch mit der Einführung von Chip-Exportkontrollen könnte sich diese Lücke noch vergrößern.

F: Wie viel Angst sollten wir vor militärischer KI haben?

A. KI ist vieles. Es ist normal, dass Armeen es verwenden. Alle Armeen verfügen über einen großen Verwaltungsapparat mit Personal- und Finanzressourcen, daher ist es durchaus sinnvoll, diesen wie ein Unternehmen zu nutzen. Auch zur Bildanalyse, wenn Sie über viel mehr Material verfügen, als menschliche Analysten überprüfen können. Sie haben auch versucht, es für das zu verwenden, was sie „vorausschauende Wartung“ nennen: Sie haben viele Hubschrauber und möchten wissen, wann Wartungsarbeiten an ihnen durchgeführt werden müssen. Wenn Sie besser vorhersagen können, wann ein Motor ausfallen wird oder wann ein Teil ausgetauscht werden muss.

F: Und autonome Waffen ?

R. Die Debatten über KI und das Militär konzentrieren sich zu sehr auf dieses Thema. Und es ist nur ein kleiner Teil. Sich nur auf autonome Waffen zu konzentrieren, ist nicht der beste Ansatz. Ich denke, es ist wichtiger, dass wir uns auf die bereits bestehenden Kriegsgesetze, das humanitäre Völkerrecht, konzentrieren. Wird zwischen Kombattanten und Zivilisten unterschieden? Wird auf die Angriffe angemessen reagiert? Wenn wir uns Szenarien vorstellen, in denen KI und Kriegsführung ernsthaft schiefgehen, liegt das oft daran, dass beispielsweise Zivilisten und nicht Kombattanten angegriffen werden. Und das ist bereits nach internationalem Recht illegal.

F: Wird das KI-Geschäftsmodell immer auf Abonnements basieren?

A. Ich denke, das große Geld wird von den Unternehmen kommen, nicht von den Verbrauchern. Da es sich um eine Mehrzwecktechnologie handelt – und nicht nur um einen lustigen Chatbot , den die Leute in der Tasche mit sich herumtragen – wird sie ein leistungsstarkes Werkzeug für alle Arten wirtschaftlicher Produktivität und Innovation sein. Ich kann mir also vorstellen, dass die Einnahmen auf der Geschäftsseite sehr hoch sein werden.

F: Wenn die KI keine weiteren Fortschritte macht, ist sie dann schon in der Lage, die Wirtschaft zu verändern ?

A: Ja. Es dauert Jahrzehnte, bis universelle Technologien wie KI in die Wirtschaft integriert werden. Selbst wenn die KI-Entwicklung zum Stillstand käme, weiß ich nicht, ob dies eine so gewaltige Transformation wäre, wie viele Leute voraussagen, aber sie wäre mindestens so groß wie das Internet. Der Übergang von der Zeit ohne Internet zur Zeit mit Internet hat Jahrzehnte gedauert. Selbst wenn wir jetzt aufhören würden, bliebe noch eine Menge Arbeit zu tun, um KI in das Gesundheitswesen, das Bildungswesen, Geschäftsprozesse, das Recht und das Finanzwesen zu integrieren.

F: Und haben wir bereits die Grenzen dessen erreicht, was KI leisten kann?

R. Darauf würde ich nicht wetten. Die Geschichte der letzten 15 Jahre im Bereich der KI ist nicht von großen Innovationen geprägt, die die Art und Weise, wie KI aufgebaut ist, völlig verändern, sondern eher von kleinen oder mittelgroßen Verbesserungen, die sich anhäufen und in ihrer Kombination zu erheblichen Fortschritten führen. Im Moment haben wir diese großartigen Sprachmodelle, Chatbots , an die wir uns gewöhnt haben. Die Unternehmen drängen jedoch in zwei Hauptrichtungen. Erstens, Denkmodelle : Ihnen beibringen, schrittweise zu denken, damit sie komplexere Probleme lösen können. Und zweitens die Agenten: Sie erledigen Dinge für Sie, treffen Entscheidungen und sind produktiv. Wir werden in diesen Bereichen in den nächsten 25 Jahren enorme Fortschritte erleben.

F: Es ist unmöglich vorherzusagen, in welche Richtung.

A. KI wird die Funktionsweise der politischen Ökonomie der Gesellschaft verändern. Wir befinden uns gerade in einer ungewöhnlichen Zeit. Es gibt viele demokratische Länder, in denen das Volk die Kontrolle hat. Aber das scheint zu bröckeln. KI wird die Machtverhältnisse beispielsweise auf dem Arbeitsmarkt neu ordnen. Wie viel Macht haben Arbeitnehmer, wenn sie streiken? Wie viele Soldaten werden in einer Armee benötigt, wenn bestimmte Arten von KI vorhanden sind? Vermutlich wird die Arbeitskraft durch KI abnehmen. Wenn es uns jedoch gelingt, eine Welt zu schaffen, in der die Grundbedürfnisse der Menschen erfüllt werden und sie Zugang zu KI haben, könnte es eine wunderbare Welt sein. Aber ich mache mir auch Sorgen darüber, dass die Grundbedingung der Menschheit während des größten Teils der Geschichte darin bestand, dass diejenigen mit der Macht herrschten. Und wer es nicht hat, lebt schlechter.